IS-CoT: Breaking the Long-form Generation Collapse via Interleaved Structural Thinking
IS-CoT:通过交错结构思维打破长文本生成崩溃
🧭 长文本生成 · 动态规划与反思 ★ 深度解读
Soochow University · PLA Academy of Military Science
提出交错式Plan-Write-Reflect循环,让8B模型在长文本生成上超越大模型,打破长度崩溃。
📌 工作参考价值(4 点)
- 在生成长文本(如商品详情、营销软文)时,可采用 Plan-Write-Reflect 循环:每写一段后反思当前进度并调整后续计划,避免偏离主题或长度失控。
- 对于多步对话 Agent(如导购助手),可借鉴全局大纲+局部规划+反思的结构,让模型在长对话中维持目标一致性,防止上下文遗忘。
- 训练时保留完整的推理链(计划、反思 token),通过 SFT 直接让模型学习动态规划,小模型也能获得强长度控制与连贯性,适合低资源业务定制。
- 多教师蒸馏的设计可提升数据多样性,避免生成风格单一,对构建特定领域(如电商)的高质量“带思考过程”数据集有直接参考价值。